Content-based Recommender

R-Version: [Default] [32-bit] C:\Program Files\R\R-4.1.0

In folgendem Notebook werden anhand des MovieLense Datensatzes aus dem Paket RecommenderLab verschiedene Recommender erstellt. Es werden verschiedene Recommender und verschiedene Ähnlichkeiten verwendet, um diese zu vergleichen und auszuwerten. Ziel ist es, ein möglichst guter Recommender zu erstellen und zu verstehen wie dieser funktioniert. Zudem soll verstanden werden wie dieser bewertet wird und was in diesem Falle ein ‘guter’ Recommender bedeutet.

Dieses Notebook konzentriert sich auf Erkenntnisse von Auswertungen und Vergleichen. Um eine bessere Übersicht zu erhalten wurden grosse, sich widerholende Codes im Helperfile helper.R ausgelagert.

2.Binäre User-Liked-Items Matrix für alle Nutzer erzeugen.

movies_binary <- movies %>% mutate(rating = ifelse(rating > 3, 1, 0))
movies_wider <- pivot_wider(movies_binary, id_cols = user, names_from = item, values_from = rating)
rownames(movies_wider) <- movies_wider$user

Warning: Setting row names on a tibble is deprecated.

movies_wider['user'] <- NULL
user_movie_matrix <- as.matrix(movies_wider)
movies_wider

Für die Binäre User-Liked Matrix setzten wir die Grenze für ein gutes Rating bei >4. Also alle Filme, welche mit einem Rating von 3 oder weniger bewertet wurden, werden als schlecht bewertet definiert (also 0), wobei Filme mit Bewertungen von 4 oder 5 als gut bewertet definiert sind (1).

binary_non_na <- as(binarize(MovieLense, minRating = 4), 'matrix') * 1
binary_non_na[1:3, 1:3]

  Toy Story (1995) GoldenEye (1995) Four Rooms (1995)
1                1                0                 1
2                1                0                 0
3                0                0                 0

Um

3.Dimension der User-Liked-Items Matrix prüfen und ausgeben.

dim(user_movie_matrix)

[1]  943 1664

4.Movie-Genre Matrix für alle Filme erzeugen.

genres <- MovieLenseMeta
genres <- genres %>% select("title",'unknown':'Western')
rownames(genres) <- genres$title
genres['title'] <- NULL
movie_genre_matrix <- as.matrix(genres)
genres

5.Dimension der Movie-Genre Matrix prüfen und ausgeben.

A_test.data <- c(1,2,0,2,1,0,1,2,1)
A_test <- matrix(A_test.data, nrow=3)
A_test

     [,1] [,2] [,3]
[1,]    1    2    1
[2,]    2    1    2
[3,]    0    0    1

B_test.data <- c(1,2,0,2,1,0,1,2,1)
B_test <- matrix(B_test.data, nrow=3)
B_test

     [,1] [,2] [,3]
[1,]    1    2    1
[2,]    2    1    2
[3,]    0    0    1

result <- calc_cos_similarity_twomtrx(A_test, B_test)

if((dim(result) == dim(B_test)) && (dim(result) == dim(A_test))) {
  print("dimensions match")
} else {
  print("dimensions do not match")
}

[1] "dimensions match"

result

          [,1]      [,2]      [,3]
[1,] 1.0000000 0.8164966 0.4082483
[2,] 0.8164966 1.0000000 0.6666667
[3,] 0.4082483 0.6666667 1.0000000

class(movie_genre_matrix)

[1] "matrix" "array" 

user_movie_matrix[1:3, 1:3]

     Toy Story (1995) GoldenEye (1995) Four Rooms (1995)
[1,]                1                0                 1
[2,]                1               NA                NA
[3,]               NA               NA                NA

user_movie_matrix 

6.Anzahl unterschiedlicher Filmprofile bestimmen und visualisieren.

nr_diff_movies <- binary_non_na %*% movie_genre_matrix
nr_diff_movies <- as.data.frame(nr_diff_movies)

nr_diff_movies_mean <- rownames_to_column(nr_diff_movies)

nr_diff_movies_mean <- pivot_longer(nr_diff_movies_mean, cols = !rowname, names_to = 'genre', values_to = 'count')
nr_diff_movies_mean <- nr_diff_movies_mean %>% group_by(genre) %>% summarize(count = mean(count))

nr_diff_movies

TODO: Visualisierung der verschiedener Nutzerprofile ( siehe slide 13 Daniel) In dieser Matrix ist zu sehen wie viele Filme pro genre mit mehr als 3 bewertet wurden, jeweils pro User.

nr_diff_movies_mean

nr_diff_movies_mean %>% mutate(genre = fct_reorder(genre, count)) %>% 
  ggplot(aes(x = genre, y = count)) + 
  geom_col(fill = 'steelblue') +
  coord_flip() +
  scale_y_continuous(expand = c(0,0), limits = c(0, 30)) +
  geom_text(aes(label = round(count, 2)), hjust=-0.2, color = 'black') +
  labs(
    title = "Duchschnittliche Anzahl positiv bewerteter Filme pro Genre",
    x = element_blank(), 
    y = "Anzahl",
    fill = element_blank()
  ) +
  theme_classic() + 
  theme(
    text = element_text(size = 12),
    legend.position = 'bottom'
  )

7.User-Genre-Profil Matrix mit Nutzerprofilen im Genre-Vektorraum erzeugen.

##8.Dimension der User-Genre-Profil Matrix prüfen und ausgeben.

9.Anzahl unterschiedlicher Nutzerprofile bestimmen, wenn Stärke der GenreKombination (a) vollständig bzw. (b) nur binär berücksichtigt wird.

Ähnlichkeit von Nutzern und Filmen

1.Cosinus-Ähnlichkeit zwischen User-Genre- und Movie-Genre-Matrix berechnen.

Test

A_test.data <- c(1.5,2.5, 1.,0.5)
A_test <- matrix(A_test.data, nrow=2)
A_test

     [,1] [,2]
[1,]  1.5  1.0
[2,]  2.5  0.5

B_test.data <- c(0.5,1., 1.5,2.)
B_test <- matrix(B_test.data, nrow=2)
B_test

     [,1] [,2]
[1,]  0.5  1.5
[2,]  1.0  2.0

result <- calc_cos_similarity_twomtrx(A_test, B_test)

if((dim(result) == dim(B_test)) && (dim(result) == dim(A_test))) {
  print("dimensions match")
} else {
  print("dimensions do not match")
}

[1] "dimensions match"

check.data <- c(0.79, 0.5, 0.87, 0.61)
check <- matrix(check.data, nrow=2)

if(max(abs(check - result)) < 1e-2){
  print("check match")
} else{
  print("check differs from result")
}

[1] "check match"

In diesem Beispiel wurde für zwei 2x2 Matrizen mit zufällig gewählten Werten die cosine similarity berechnet. Diese Berechnung wurde ebenfalls von Hand gemacht und mit der Implementierung abgegelichen. Zusätzlich wurden die Dimensionen der Inputvariablen mit deren des Resultates abgeglichen. Die Berechnung der Cosine Similarity sollte so korrekt sein.

Anschliessend wird die Cosine Similarity der user-genre und movie-genre Matrixberechnet.

user_movie_non_na <- user_movie_matrix
user_movie_non_na[is.na(user_movie_non_na)] <- 0
user_movie_non_na[1:5, 1:5]

     Toy Story (1995) GoldenEye (1995) Four Rooms (1995) Get Shorty (1995) Copycat (1995)
[1,]                1                0                 1                 0              0
[2,]                1                0                 0                 0              0
[3,]                0                0                 0                 0              0
[4,]                0                0                 0                 0              0
[5,]                1                0                 0                 0              0

similarity <- calc_cos_similarity_twomtrx(user_movie_non_na, t(movie_genre_matrix))

summary(similarity)

    unknown              Action          Adventure         Animation         Children's          Comedy            Crime          Documentary           Drama        
 Min.   :0.0000000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.000000   Min.   :0.00000  
 1st Qu.:0.0000000   1st Qu.:0.05174   1st Qu.:0.02713   1st Qu.:0.00000   1st Qu.:0.00000   1st Qu.:0.03723   1st Qu.:0.02890   1st Qu.:0.000000   1st Qu.:0.07013  
 Median :0.0000000   Median :0.09530   Median :0.06691   Median :0.02291   Median :0.02440   Median :0.06872   Median :0.05600   Median :0.000000   Median :0.10636  
 Mean   :0.0005492   Mean   :0.11033   Mean   :0.07884   Mean   :0.03708   Mean   :0.03679   Mean   :0.08106   Mean   :0.06107   Mean   :0.008078   Mean   :0.11636  
 3rd Qu.:0.0000000   3rd Qu.:0.15322   3rd Qu.:0.11681   3rd Qu.:0.05657   3rd Qu.:0.05270   3rd Qu.:0.11617   3rd Qu.:0.08865   3rd Qu.:0.012612   3rd Qu.:0.15195  
 Max.   :0.2236068   Max.   :0.39834   Max.   :0.37064   Max.   :0.29513   Max.   :0.31642   Max.   :0.36430   Max.   :0.20658   Max.   :0.092582   Max.   :0.34499  
 NA's   :1           NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1          NA's   :1        
    Fantasy          Film-Noir           Horror           Musical           Mystery           Romance            Sci-Fi           Thriller            War         
 Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000   Min.   :0.00000  
 1st Qu.:0.00000   1st Qu.:0.00000   1st Qu.:0.00000   1st Qu.:0.00000   1st Qu.:0.02532   1st Qu.:0.05363   1st Qu.:0.04082   1st Qu.:0.05840   1st Qu.:0.05307  
 Median :0.00000   Median :0.02182   Median :0.02198   Median :0.02779   Median :0.05064   Median :0.08512   Median :0.07962   Median :0.09511   Median :0.09136  
 Mean   :0.01362   Mean   :0.03172   Mean   :0.03298   Mean   :0.04094   Mean   :0.05633   Mean   :0.09278   Mean   :0.09234   Mean   :0.10013   Mean   :0.09648  
 3rd Qu.:0.02581   3rd Qu.:0.04982   3rd Qu.:0.04961   3rd Qu.:0.06299   3rd Qu.:0.08280   3rd Qu.:0.12338   3rd Qu.:0.13499   3rd Qu.:0.13535   3rd Qu.:0.13476  
 Max.   :0.13319   Max.   :0.24225   Max.   :0.46658   Max.   :0.23905   Max.   :0.17252   Max.   :0.32757   Max.   :0.34179   Max.   :0.32695   Max.   :0.35029  
 NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1         NA's   :1        
    Western       
 Min.   :0.00000  
 1st Qu.:0.00000  
 Median :0.00000  
 Mean   :0.02236  
 3rd Qu.:0.04029  
 Max.   :0.15157  
 NA's   :1        

plot_sim(similarity, "cosine similarity matrix between user-genre and movie-genre")

selection <- as.data.frame(similarity)[c(241, 414, 477, 526, 640, 710), ]
genres <- colnames(selection)
selection$users <- rownames(selection)
selection_long <- selection %>% pivot_longer(cols = genres)

ggplot(selection_long, aes(x=value, fill=users)) + geom_density(alpha=0.3) + 
    labs(title="Density plot Cosinus-Ähnlichkeiten ausgewählte users", subtitle="", x="similarity")

    
#plot_sim(selection, "cosine similarity user-genre and movie-genre selection")

Empfehlbare Filme

1. Bewertete Filme maskieren, d.h. “Negativabzug” der User-Items Matrix erzeugen, um anschliessend Empfehlungen herzuleiten.

2. Zeilensumme des “Negativabzuges” der User-Items Matrix für die User “5”, “25”, “50” und “150” ausgeben.

Hier zu sehen sind die anzahl nicht bewerteter filme pro user

3. 5-Zahlen Statistik der Zeilensumme des “Negativabzuges” der User-Items Matrix bestimmen.

Top-N Empfehlungen

1.Matrix für Bewertung aller Filme durch element-weise Multiplikation der Matrix der Cosinus-Ähnlichkeiten von Nutzern und Filmen und “Negativabzug” der User-Items Matrix erzeugen.

2.Dimension der Matrix für die Bewertung aller Filme prüfen.

3.Top-20 Listen pro Nutzer extrahieren.

4.Länge der Top-20 Listen pro Nutzer prüfen.

##5.Verteilung der minimalen Ähnlichkeit für Top-N Listen für N = 10, 20, 50 und 100 für alle Nutzer visuell vergleichen.

TODO: igewie visualisiere

##6.Top-20 Empfehlungen für Nutzer “5”, “25”, “50” und “150” visuell evaluieren.

TODO: clevelandplot

##7.Für Nutzer “133” und “555” Profil mit Top-N Empfehlungen für N = 20, 30, 40, 50 analysieren, visualisieren und diskutieren.

TODO: Clevelandplot + diskussion